Commentaar over het artikel in NRC: Van geraaskal tot plagiaat

Wat volgt is een discussie over het artikel in de NRC van 27 December 2024, door Vincent Icke astronoom
Om het artikel te lezen selecteer de volgende link: https://www.nrc.nl/nieuws/2024/12/27/ai-smakeloze-stamppot-of-existentieel-gevaar-a4877715

• De tekst in italic is een kopie van het artikel.
  
• Direct gevolgd door een commentaar
  

In de laatste paragraaf staat mijn eigen mening.

Reflectie

• Reflectie 1 -

Inleiding

Mijn vak is theoretische astrofysica. Gegeven een kosmisch verschijnsel, wil ik antwoord op de vraag: wat zit daar achter? Of scherper: hoe werkt het? Zo’n zoektocht draait om het verzinnen en formuleren van een veronderstelling, een hypothese, die vervolgens wordt getoetst aan waarnemingen en experimenten. Daar bakt kunstmatige intelligentie (AI) helemaal niets van. Je kunt AI een miljard foto’s van zonsondergangen voeren, maar toch zal AI nooit ofte nimmer op het idee komen dat Aristarchus van Samos al in 350 v. Chr. had: die zonsondergang, dat lijkt maar zo! We zitten op een draaiende bol!

Intussen kan AI uit een geroofde berg data ongetwijfeld een prijswinnende nepfoto van een zonsondergang destilleren. Nou, en? AI werkt met bestaand materiaal, en kan dus niets baanbrekends voortbrengen. Aan het ene uiterste levert AI geraaskal, aan het andere uiterste plagiaat. De stamppot van AI wordt voor een nieuw gerecht aangezien door mensen die niet kunnen koken.

AI-software wordt getraind op wat er is. Een veronderstelling formuleert wat er niet is, en wat zelfs onmogelijk kan lijken (het heliocentrisch zonnestelsel volgens Aristarchos). AI bevat een onafzienbare stapel kennis, maar geen snipper begrip. In ons brein is het andersom.

De hypothese is de grondslag van alle begrip.

Visuele waarnemingen zijn de grondslag voor al onze kennis. Die waarnemingen leiden tot vragen en dat leidt weer tot antwoorden (hypotheses, wetten en inzichten). enz.
Al dit is mensen werk, kortgezegt van menselijke intelligentie. In deze keten van nieuwe ontdekkingen is geen plaats voor een computer.

Hoe het menselijk brein die bedenkt, en hoe het überhaupt kan, is vooralsnog een mysterie.

Zie hierboven. De eerste mens zal spoedig gezien (ontdekt) hebben dat vuur in de savannen ontstaat door bliksem inslag. Dat als je wilt overleven je ten minste het gedrag van dieren moet nabootsen i.e. je moet met elkaar samen werken. Dat het leven in een grot voordelen had. Dat je vis (rauw) kan eten en dat je vis moet proberen te vangen.
Dat wij om dit alles te doen, dat wij daarbij ons brein gebruiken, om dat te weten, is niet zo belangrijk.

Maar het staat vast dat AI het nog niet kan, zelfs niet nabootsen.

AI zal dit nooit kunnen. AI kan alleen iets doen met geschreven tekst, dwz verschillende teksten met elkaar vergelijken. Je zou een stomme film kunnen maken over het hierboven beschreven landschap. Je kunt die film ondervragen aan de hand van individuele afbeeldingen van ?, maar met intelligentie heeft dit niks te maken.

Het is onzin om te zeggen dat "AI ons brein overstijgt’, totdat een verder ontwikkeld AI-systeem wel zulke diepe veronderstellingen kan doen.

Of dat moment ooit komt is onzeker, maar het is niet uitgesloten. Immers, de mens is een machine, dus het is denkbaar dat een of ander supersysteem ooit sneller en beter hypotheses zal formuleren dan wij.

De mens is nu niet zo iets als een machine. De mens is ook geen computer programma. De mens is veel meer dan dat. De mens is (1) instaat om een fysisch probleem te begrijpen en te beschrijven, dan (2) in een wiskundig model om te zetten en daarna (3) in een computer programma. Als laatste (4) instantie dit programma te verbeteren.
Bij een AI systeem gaat het er om, dat de mens alleen step 1 uitvoert. Het AI systeem begint met de beschrijving (de probleemstelling) en maakt zelf het programma. Als het resultaat niet klopt met de fysische verwachting (stap 4) dan moet de mens de oorspronkelijk probleemstelling aanpassen ?
Nu gaat het er om of dit laatste door de mens moet gebeuren (behalve als het om constanten gaat). In feite moet het AI systeem zichzelf aanpassen als de resultaten niet kloppen met de fysische verwachting. Als dat niet kan maar de mens wel dan is de intelligentie van het AI systeem niet hoog,

'Ooit' zou heel lang kunnen zijn, maar misschien blijkt het wel kort. Dan wordt AI pas echt gevaarlijk, en wel catastrofaal: een soort culturele kernbom.

Tot dusver zit het grootste gevaar niet in AI als zodanig, maar – zoals gewoonlijk – in de mens.

Dat klopt. De mens is eigenlijk het meeste intelligente deel, want die is de maker van het geheel en daarin schuilt het probleem. De mens moet ook het programma uit testen en kijken of het programma voldoet aan de taken die het moet uitvoeren. Daarin ligt nu het probleem. Die taken, wat je wil, moeten duidelijk omschreven zijn. En daarin ligt ook het probleem: het programma moet dat doen op een intelligentere/slimmere manier dan het oude programma. Hier zie je meteen, waar het schoentje wringt: wat betekend precies slimmer. Dit kan bijv. zijn: maak een snellere auto. Mij lijkt dit onmogelijk via AI en een nutteloze exercitie. Je kunt de vraag ook zo definieren: Verander de luchtweerstand (vorm) van de auto zodanig dat hij sneller (veilig) kan rijden. In zekere zin is dit een wiskundig probleem. Beter een gezegd een meet en regel probleem.
In zo een geval gaat het om twee transformaties. Eerst moet je vorm vertalen naar een wiskundig model. Dan moet je dit model veranderen. De tweede transformatie is het nieuwe model omzetten in een nieuwe vorm en daarna testen of de auto sneller is of vroeger. Het aller moeilijkste is dat "het veranderen van het model" gebasseerd is op AI.

Producenten zijn uit op profijt en macht; consumenten zijn uit op gemak en 'cheap kicks'. Ik heb ter zake geen illusies, in een wereld waarin influencers en andere goeroes honderden malen meer verdienen en invloed hebben dan mensen die echt ergens verstand van hebben.

Nieuwe medicijnen worden jarenlang getest voordat ze eventueel op de markt mogen komen. Het verbijstert mij dat AI botweg op de mensheid wordt losgelaten door de rijkste en machtigste bedrijven ter wereld, zonder dat hen ook maar iets in de weg wordt gelegd.

Reflectie 1

Reflectie 2

Terug naar mijn home page Index
Terug naar NRC commentaar NRC Index